#리퀴드 AI

리퀴드 AI, 11개 국어 검색 3.5억 매개변수 모델 공개

리퀴드 AI(Liquid AI)는 엣지 디바이스(Edge Device)에서 빠르고 효율적인 다국어 검색을 위해 3억 5천만 개의 매개변수를 가진 두 가지 새로운 모델을 발표했습니다. 이 모델들은 밀집 바이 인코더(Dense Bi-Encoder)와 ColBERT 지연 상호작용(Late-Interaction) 구조를 결합하여, 모바일 등 제한된 자원 환경에서도 고성능 다국어 정보 검색(RAG 등)을 가능하게 한다는 점에서 실무자들에게 중요합니다.

리퀴드 AI, 128K 컨텍스트 지원 온디바이스 MoE 모델 공개

리퀴드 AI는 일반 소비자용 하드웨어에서도 구동 가능한 온디바이스용 MoE 모델인 LFM2.5-8B-A1B를 발표했습니다. 이 모델은 총 83억 개(8.3B)의 파라미터를 보유하고 있으면서도 연산 시 15억 개(1.5B)만 활성화하여 효율적인 추론을 자랑합니다. 최대 12만 8천(128K) 토큰의 긴 컨텍스트 처리와 고급 추론, 그리고 도구 호출(Tool calling) 기능을 지원하는 것이 특징입니다.